Progress-Aware Distillation for Mitigating Stagnation in Small Language Model Agents
用于缓解小语言模型智能体停滞的进展感知蒸馏
🧭 Agent 蒸馏 · 停滞抑制 ★ 深度解读
The Pennsylvania State University · Microsoft CoreAI
提出 ProD，在蒸馏中显式惩罚学生轨迹停滞，提高小模型 Agent 成功率与推理效率
📌 工作参考价值（4 点）
- 在电商搜索/客服/投放 Agent 的 SLM 蒸馏中，可直接引入 stagnation score：对最近 k 轮 action/query 做 ROUGE-L 或 embedding cosine 相似度监控，识别反复调同一类 API、改写同一 query；离线训练时把这些信号做成动态 margin 的偏好 loss。
- 推荐用 ProD 式混合目标：L_PRO + λ L_SFT，λ=1；adaptive margin 采用 c0*(α*stagnation_gap + (1-α)*ans_mismatch)，α=0.5 是稳健默认。可在现有 LoRA SFT 蒸馏后做 1-2 轮迭代，生成 on-policy 轨迹再更新。
- 推理阶段 repetition penalty 或缩短教师轨迹不能真正解决停滞，需要训练阶段对 student 自身行为加约束；这样做能同时降低平均轮数约 12%、token 约 21%，对生产时延和成本有直接收益。
- 业务环境无法频繁调用 LLM-as-judge 时，用 lexical ROUGE-L 已足够作为停滞信号，和 semantic/judge 相关性 >0.92；在代码/API action 场景可优先使用。